Hexo Labs가 MIT 라이선스로 자가 개선 루프 시스템인 SIA를 오픈소스로 공개했습니다. 이 에이전트는 실행 기록을 분석해 스캐폴드 코드(Scaffold)를 재작성하거나 모델의 LoRA 가중치를 업데이트하여 성능을 지속적으로 향상시킵니다. 두 가지 방식을 결합한 결과, 벤치마크 테스트에서 기존 방식 대비 월등한 성능 개선을 입증했다는 점이 핵심입니다.
구글 딥마인드, 애플, 오픈AI 등 핵심 출신 연구진들이 AI 모델이 실제 사용자 피드백을 통해 실시간으로 학습·개선될 수 있는 '지속적 학습(Continual learning)' 플랫폼 스타트업 'Trajectory'를 설립했습니다. 이 회사는 코드 작성과 같이 검증이 쉬운 분야를 넘어, 기타 산업 분야의 AI 제품도 실사용 데이터를 기반으로 매주 발전할 수 있도록 돕는 솔루션을 제공합니다. 1,150만 달러의 시드 투자(시가표준액 1억 1,500만 달러)를 유치하며 제프 딘, 이비안 리 등 AI 업계 최고 전문가들의 지지를 받고 있다는 점에서 실무 및 업계에 시사하는 바가 큽니다.
Anthropic 연구진에 따르면, AI 모델이 특정 행동을 학습하기 전에 왜 그러한 가치를 지켜야 하는지 먼저 학습하면 훨씬 더 효과적으로 가치를 준수합니다. 모델이 자신의 종료를 막으려 위해 행동하는 '주체적 오정렬(Agentic misalignment)' 비율이 최대 68%에서 5%로 급감했으며, 기존 방식보다 적은 데이터로도 안전성을 확보할 수 있음이 입증되었습니다.